Search

Algorithmic decisions are currently being used on a daily basis. These decisions often rely on Machine Learning (ML) algorithms that may produce complex and opaque ML models. Recent studies raised unfairness concerns by revealing discriminating outcomes produced by ML models against minorities and unprivileged groups. As ML models are capable of amplifying discrimination against minorities due to unfair outcomes, it reveals the need for approaches that uncover and remove unintended biases. Assessing fairness and mitigating unfairness are the two main tasks that have motivated the growth of the research field called {algorithmic fairness}. Several notions used to assess fairness focus on the outcomes and link to sensitive features (e.g. gender and ethnicity) through statistical measures. Although these notions have distinct semantics, the use of these definitions of fairness is criticized for being a reductionist understanding of fairness whose aim is basically to implement accept/not-accept reports, ignoring other perspectives on inequality and on societal impact. Process fairness instead is a subjective fairness notion which is centered on the process that leads to outcomes. To mitigate or remove unfairness, approaches generally apply fairness interventions in specific steps. They usually change either (1) the data before training or (2) the optimization function or (3) the algorithms' outputs in order to enforce fairer outcomes. Recently, research on algorithmic fairness have been dedicated to explore combinations of different fairness interventions, which is referred to in this thesis as {fairness hybrid-processing}. Once we try to mitigate unfairness, a tension between fairness and performance arises that is known as the fairness-accuracy trade-off. This thesis focuses on the fairness-accuracy trade-off problem since we are interested in reducing unintended biases without compromising classification performance. We thus propose ensemble-based methods to find a good compromise between fairness and classification performance of ML models, in particular models for binary classification. In addition, these methods produce ensemble classifiers thanks to a combination of fairness interventions, which characterizes the fairness hybrid-processing approaches. We introduce FixOut ({F}a{I}rness through e{X}planations and feature drop{Out}), the human-centered, model-agnostic framework that improves process fairness without compromising classification performance. It receives a pre-trained classifier (original model), a dataset, a set of sensitive features, and an explanation method as input, and it outputs a new classifier that is less reliant on the sensitive features. To assess the reliance of a given pre-trained model on sensitive features, FixOut uses explanations to estimate the contribution of features to models' outcomes. If sensitive features are shown to contribute globally to models' outcomes, then the model is deemed unfair. In this case, it builds a pool of fairer classifiers that are then aggregated to obtain an ensemble classifier. We show the adaptability of FixOut on different combinations of explanation methods and sampling approaches. We also evaluate the effectiveness of FixOut w.r.t. to process fairness but also using well-known standard fairness notions available in the literature. Furthermore, we propose several improvements such as automating the choice of FixOut's parameters and extending FixOut to other data types.; Les décisions algorithmiques sont actuellement utilisées quotidiennement. Ces décisions reposent souvent sur des algorithmes d'apprentissage automatique (machine learning, ML) qui peuvent produire des modèles complexes et opaques. Des études récentes ont soulevé des problèmes d'iniquité en révélant des résultats discriminatoires produits par les modèles ML contre des minorités et des groupes non privilégiés. Comme les modèles ML sont capables d'amplifier la discrimination en raison de résultats injustes, cela révèle la nécessité d'approches qui découvrent et suppriment les biais inattendues. L'évaluation de l'équité et l'atténuation de l'iniquité sont les deux tâches principales qui ont motivé la croissance du domaine de recherche en équité algorithmique (algorithmic fairness). Plusieurs notions utilisées pour évaluer l'équité se concentrent sur les résultats et sont liées à des attributs sensibles (par exemple, l'éthinicité) par des mesures statistiques. Bien que ces notions aient une sémantique distincte, l'utilisation de ces définitions est critiquée pour sa compréhension réductrice de l'équité, dont le but est essentiellement de mettre en œuvre des rapports d'acceptation/non-acceptation, ignorant d'autres perspectives sur l'iniquité et l'impact sociétal. Process fairness (équité des procédures) est au contraire une notion d'équité subjective, centrée sur le processus qui conduit aux résultats. Pour atténuer ou supprimer l'iniquité, les approches appliquent généralement des interventions en matière d'équité selon des étapes spécifiques. Elles modifient généralement soit les données avant l'apprentissage, la fonction d'optimisation ou les sorties des algorithmes afin d'obtenir des résultats plus équitables. Récemment, les recherches ont été consacrées à l'exploration de combinaisons de différentes interventions en matière d'équité, ce qui est désigné dans cette thèse par le traitement hybride de l'équité. Une fois que nous essayons d'atténuer l'iniquité, une tension entre l'équité et la performance apparaît, connue comme le compromis équité/précision. Cette thèse se concentre sur le problème du compromis équité/précision, puisque nous sommes intéressés par la réduction des biais inattendues sans compromettre les performances de classification. Nous proposons donc des méthodes ensemblistes pour trouver un bon compromis entre l'équité et la performance de classification des modèles ML, en particulier les classificateurs binaires. De plus, ces méthodes produisent des classificateurs d'ensemble grâce à une combinaison d'interventions sur l'équité, ce qui caractérise les approches de traitement hybride de l'équité. Nous proposons FixOut (FaIrness through eXplanations and feature dropOut), un framework centré sur l'humain et agnostique vis-à-vis des modèles qui améliore l'équité sans compromettre les performances de classification. Il reçoit en entrée un classificateur pré-entraîné, un ensemble de données, un ensemble de attributs sensibles et une méthode d'explication, et il produit un nouveau classificateur qui dépend moins des attributs sensibles. Pour évaluer la dépendance d'un modèle pré-entraîné aux attributs sensibles, FixOut utilise des explications pour estimer la contribution des attributs aux résultats du modèle. S'il s'avère que les attributs sensibles contribuent globalement aux résultats, alors le modèle est considéré comme injuste. Dans ce cas, il construit un groupe de classificateurs plus justes qui sont ensuite agrégés pour obtenir un modèle d'ensemble. Nous montrons l'adaptabilité de FixOut sur différentes combinaisons de méthodes d'explication et d'approches d'échantillonnage. Nous évaluons également l'efficacité de FixOut par rapport au process fairness mais aussi en utilisant des notions d'équité standard bien connues disponibles dans la littérature. De plus, nous proposons plusieurs améliorations telles que l'automatisation du choix des paramètres et l'extension de FixOut à d'autres types de données.

Dans ce travail, nous considérons la résolution de problème OPTW avec des méthodes de recherche incomplète aidées par une base de connaissances. L'objectif est d'extraire et de mémoriser des conflits au fur et à mesures des itérations dans une mémoire long-terme. Par rapport à des mécanismes de recherche tabou, l'enjeu est d'obtenir une base de conflits plus pérenne. Pour expérimenter cette approche sur les OPTW, nous proposons trois méthodes de gestion de la base de conflits et évaluons ses performances dans le solveur global. Ces conflits sont utilisés pour guider la recherche dans le futur, soit pour éviter de ré-explorer des configurations non admissibles, soit pour identifier les zones les plus prometteuses dans l'espace de recherche.

In a context favorable to the rationalization of decisions through measurable objectives and quantitative methods, the recent development of computing technologies has incresed the adoption of algorithmic decision systems. Such systems are already used in many fields and a widespread adopted is excepted. However, the use of such algorithms does not come without risk. While several solutions have already been proposed, notably by the eXplainable Artififial Intelligence research community, we believe that additional efforts are needed to fully address all the issues. In this thesis, we start by presenting the main research works in eXplainable Artififial Intelligence, in particular black-box explanation methods, i.e. those that work without accessing the algorithm code. These seemingly diverse methods actually share a common structure that we identify and build upon to establish a taxonomy. Next, we describe our Interactive Black-box EXplanation system called IBEX. Based on user input, IBEX generates an explanation tailored to the individual's profile and needs. The user can interact with the explanation system according to their skills. To generate the explanations, IBEX relies on a framework for black-box explanations that describe the explanation process into two distinct components. The approach proposed in IBEX has been tested in a study involving users (agents of a French regulatory authority) with various profiles. Then, we propose an original method allowing to challenge or justify algorithm based decisions. While contestation is of major importance in legal texts and while their justification by external norms is a recurrent concern in social sciences, there are no tools dedicated to these specific objectives. Our tool Algocate operationalizes these notions for three types of norms (rules, objectives and reference) in an interactive way. This approach is also tested in a study involving real users. Finally, a three-year collaboration was conducted with the French biomedical agency. It focused on the heart transplant allocation algorithm. After a bibliographic analysis and interviews conducted in French hospitals, the main sociological and organizational issues surrounding this algorithm were identified. Then, a set of information ensuring the explanation and justification of the system was made available to the physicians of the transplant centers.; Dans un contexte favorable à la rationalisation des décisions par des objectifs mesurables et des méthodes quantitatives, le développement récent des technologies numériques a accéléré l'adoption des systèmes de décisions fondés sur un traitement algorithmique. De tels systèmes sont déjà présents dans de nombreux domaines et leur utilisation devrait encore s'accroître. Toutefois l'utilisation de tels algorithmes est porteuse de risques. Alors que plusieurs solutions ont déjà été proposées notamment par la communauté de recherche eXplainable Artififial Intelligence, nous pensons que des efforts supplémentaires sont nécessaires pour répondre pleinement à tous les enjeux. Dans cette thèse, nous commençons par présenter les principaux travaux de recherche en eXplainable Artififial Intelligence en particulier les méthodes d'explication en mode boîte noire, c'est-à-dire qui fonctionnent sans accéder au code de l'algorithme. Ces méthodes, en apparence diverses, partagent en fait une structure commune que nous identifions et que nous mettons à profit pour en établir une taxonomie.Ensuite, nous décrivons notre système interactif d'explication d'algorithme en boîte noire appelé IBEX. En s'appuyant sur les informations fournies par l'utilisateur, IBEX génère une explication adaptée au profil de la personne et à ses besoins. L'utilisateur peut interagir avec le système d'explication en fonction de ses compétences. Pour générer les explications, IBEX s'appuie sur un cadre pour les explications en boîte noire qui décompose notamment sur le processus d'explication en deux composantes distinctes. La démarche proposée dans IBEX a été testée lors d'une étude impliquant des utilisateurs (agents d'une autorité de régulation française) ayant des profils variés. Dans la suite, nous proposons une méthode originale permettant aux utilisateurs de systèmes algorithmiques d'en contester ou d'en justifier les décisions. Alors que la contestation occupe une place importante dans les textes de loi et que la question de leur justification par des normes extérieures est une préoccupation centrale des travaux de sciences sociales, il n'existe pas d'outils dédiés à ces objectifs spécifiques. Un dispositif technique, appelé Algocate, permet de rendre ces notions opérationnelles pour trois types de normes (règles, objectifs et référence) grâce à un système interactif. Cette démarche est également testée dans le cadre d'une étude impliquant des utilisateurs réels. Une collaboration de trois ans a été menée avec l'Agence de la biomédecine. Elle a porté sur l'algorithme d'attribution des greffons cardiaque. Après une phase d'analyse bibliographique et des entretiens menés sur le terrain dans des hôpitaux français, les principaux enjeux sociologiques et organisationnels autour de cet algorithme ont pu être identifiés. Suite à cela, un ensemble d'informations assurant l'explication et la justification du système a été mis à disposition des médecins des centres de greffe.

International audience; Cet exposé présentera certaines de mes recherches en épistémologie des simulations computationnelles. Ces travaux entendent contribuer à la question spécifique de savoir comment la machine générique computeur (le mot français ordinateur apparaît aujourd’hui clairement réducteur car lié à l’usage daté d’un computeur pour le traitement et l’ordonnancement de l’information) et les divers tournants computationnels associés ont enrichi l’outillage de l’esprit humain dans le cas spécifique de l’enquête scientifique et technique. Dans ce contexte, les simulations sur computeur ont d’abord majoritairement consisté en des simulations numériques de modèles mathématiques ou en des modelages numériques (CAO). Par son recours plus explicite à la dimension sous-symbolique propre à toute simulation, la simulation computationnelle a ensuite permis de représenter de manière plus iconique les interactions entre facteurs hétérogènes d’un système complexe (organismes vivants, sociétés, etc.) ouvrant la voie à des pratiques d’explication prolongée non accessible à un esprit humain non aidé. En recourant à la simulation orientée objets et aux systèmes multi-agents, une telle explication prolongée est déléguée à la machine au sens où l’on peut dire que l’on « fait expliquer » le phénomène d’intérêt par la computation du modèle de simulation. Enfin, l’entrecroisement – au cours de la computation – des voies de la référence et des chemins de sous-symbolisation que permettent les simulations complexes contemporaines installe l’apport des simulations au-delà de celui d’un outil de résolution approchée de modèle ou de délégation de l’explication. Elle autorise que soit automatisée une recherche de modélisation mathématique ex post effectuée sur la simulation elle-même, sur le terrain virtuel de patterns résultant de processus et de mécanismes hétérogènes co-calculés et entrecroisés pas à pas. Cette pratique de re-mathématisation de simulation complexe relève d’une recherche de compréhension assistée par ordinateur : elle vise la proposition d’une compréhension ex post médiée par une simulation computationnelle préalable. De telles pratiques formelles régionalisent considérablement la dialectique théorie/expérience traditionnellement « cerveau-centrée » et « mathématiques-centrée » en ajoutant des outils médiateurs indispensables, nouveaux et dont les natures épistémiques se révèlent à l’épistémologie elle-même à la fois variables, complexes et souvent combinées. Il devient par exemple techniquement réducteur de ne croire toujours qu’en la recherche directe sur des données de formalismes mathématiques (lois, théories, modèles) élégants, simples, parcimonieux car mobilisables ou calculables par un esprit humain non aidé. Ce que c’est que connaître semble donc aujourd’hui considérablement bouleversé et enrichi par ces nouveaux outillages suscités ou rendus possibles par cet objet mi-matériel mi-formel qu’est le computeur.

The main goal of this research report is to define a generic framework for black-box explanation methods in order to make it easier to compare and classify different approaches. We focus on two components of this framework, called respectively “Sampling” and “Generation”, which are characterized formally and used to build a taxonomy of explanation methods. We also describe precisely how each method can be expressed in the framework.; Dans ce rapport de recherche, nous proposons un cadre générique pour décrire les méthodes d’explication fonctionnant en mode “boîte noire”, l’objectif étant de faciliter la comparaison et la classification de ces méthodes. Nous définissons formellement deux composantes principales, appelées respectivement l’“Echantillonnage” et la “Génération”, qui sont ensuite utilisées pour construire une taxonomie des méthodes d’explication. Nous décrivons aussi précisément la manière dont les méthodes de la littérature s’expriment dans ce cadre.

The main goal of this research report is to define a generic framework for black-box explanation methods in order to make it easier to compare and classify different approaches. We focus on two components of this framework, called respectively “Sampling” and “Generation”, which are characterized formally and used to build a taxonomy of explanation methods. We also describe precisely how each method can be expressed in the framework.; Dans ce rapport de recherche, nous proposons un cadre générique pour décrire les méthodes d’explication fonctionnant en mode “boîte noire”, l’objectif étant de faciliter la comparaison et la classification de ces méthodes. Nous définissons formellement deux composantes principales, appelées respectivement l’“Echantillonnage” et la “Génération”, qui sont ensuite utilisées pour construire une taxonomie des méthodes d’explication. Nous décrivons aussi précisément la manière dont les méthodes de la littérature s’expriment dans ce cadre.

The study reported in this paper focuses on the use of genre theory as an appropriate framework for English L2 writing in the subject English Language IV of the degree in English Studies. We compared 40 explanations written by students in this course at the University of Alicante (Spain) before and after they had studied different text types following genre theory. This study will show that using the theory of genre as a framework to teach academic writing helped students to improve their level of literacy through the study of text types and specific grammatical structures that appear in these texts. Findings suggest that exposing students to good models of different text types, paying special attention to explanations, and asking them to write texts based on these models, improves students' texts from the grammatical and the textual points of view. El estudio presentado en este artículo se centra en el uso de la teoría del género como un marco adecuado para la escritura Inglés L2 en la asignatura de Inglés IV de la licenciatura en Filología Inglesa. Se compararon 40 explicaciones escritas por los estudiantes en este curso en la Universidad de Alicante (España) antes y después de haber estudiado diferentes tipos de texto siguiendo la teoría del género. Este estudio mostrará que el uso de dicha teoría como marco para enseñar la escritura académica ayudó a los estudiantes a mejorar su nivel de alfabetización mediante el estudio de los tipos de textos y las estructuras gramaticales específicas que aparecen en ellos. Los resultados sugieren que la exposición de los estudiantes a buenos modelos de diferentes tipos textuales, con especial atención a las explicaciones, y pedirles que escriban textos en base a estos modelos, mejora la producción escrita de los estudiantes desde el punto de vista gramatical y textual. L'étude présentée dans cet article se concentre sur l'utilisation de la théorie du genre en tant que cadre pour l'écriture en anglais L2 dans le cours Anglais IV de la licence en Philologie Anglaise. 40 explications écrites par les étudiants de ce cours à l'Université d'Alicante (Espagne) ont été comparées avant et après avoir étudié les différents types de texte suivant la théorie du genre. Cette étude montre que l'utilisation de la théorie du genre, en tant que cadre pour l'enseignement de l'écriture académique, a aidé les élèves à améliorer leurs compétences en littéracie à travers l'étude de certains types de textes et des structures grammaticales qui apparaissent dans ces textes. Les résultats suggèrent que l'exposition des étudiants à de bons modèles de différents types de textes, focalisés particulièrement sur les explications, et le fait de leur demander d'écrire des textes basés sur ces modèles, améliorent les productions écrites des étudiants du point de grammatical et textuel.

En este artículo recurrimos a diferentes aportes de Ludwig Wittgenstein (fuentes primarias y secundarias) con el fin de analizar críticamente ideas comunes sobre los orígenes y fundamentos de nuestros juicios éticos. Para esto, argumentamos que la distinción que hace el filósofo entre razones y causas es pertinente para demostrar que las valoraciones éticas no tienen un cimiento natural ni objetivo. Las valoraciones, en cambio, se apoyan en razones que surgen de un sistema sociocultural y se constituyen a través del lenguaje. Así, llegamos a plantear que el concepto de "juegos de lenguaje" propuesto por Wittgenstein, permite comprender mejor la forma en que los individuos interiorizan reglas y criterios a partir de los cuales realizan juicios éticos y establecen principios morales. In this article we use different contributions of Ludwig Wittgenstein (primary and secondary sources) in order to critically analyze common ideas about the origins and foundations of our ethical judgments. For this, we argue that the distinction made by the philosopher between reasons and causes is relevant to show that ethical values have no natural or objective foundation. Valuations, however, rely on reasons arising from a sociocultural system and are constituted through language. Thus, we propose that the concept of "language games" proposed by Wittgenstein, can better allow an understanding of how individuals internalize rules and criteria from which ethical judgments are made and moral principles are established. Dans cet article on fait appel à de différentes contributions de Ludwig Wittgenstein (sources primaires et secondaires) afin d'analyser de façon critique des idées communes sur les origines et les fondements de nos jugements éthiques. Pour cela, on s'appuie sur l'idée selon laquelle la distinction que fait le philosophe entre des raisons et des causes est pertinente pour montrer que les jugements éthiques n'ont pas de fondation naturelle ni objective. Les jugements, par contre, s'appuient sur des raisons qui émergent d'un système socioculturel et ils sont constitués à travers le langage. Nous sommes maintenant parvenus à soulever que la notion de "jeux de langage" proposée par Wittgenstein, permet de mieux comprendre la manière dans laquelle les individus assimilent des règles et des critères à partir desquels ils portent des jugements éthiques et établissent des principes moraux. Neste artigo recorremos a diferentes contribuições de Ludwig Wittgenstein (fontes primárias e secundárias) com o objetivo de analisar criticamente idéias comuns sobre as origens e sentido dos nossos juízos éticos. Para isso, argumentamos que a distinção que faz o filósofo entre razões e causas é pertinente para demonstrar que as valorações éticas não têm uma base natural nem objetivo. As avaliações no entanto, apoiam-se em razões que surgem de um sistema sócio cultural e formam-se através da linguagem. Assim, chegamos a pensar que o conceito de “jogos de Linguagem” proposto por Wittgenstein, permite entender melhor a forma como os indivíduos interiorizam regras e critérios a partir dos quais realizam juízos éticos e estabelecem princípios morais.

Constraint programming is often described, idealistically, as a declarative paradigm in which the user describes the problem and the solver solves it. Obviously, the reality of constraint solvers is more complex, and the needs in customization of modeling and solving techniques change with the level of expertise of users. This thesis focuses on enriching the arsenal of available techniques in constraint solvers. On the one hand, we study the contribution of an explanation system to the exploration of the search space in the specific context of a local search. Two generic neighborhood heuristics which exploit explanations singularly are described. The first one is based on the difficulty of repairing a partially destroyed solution, the second one is based on the non-optimal nature of the current solution. These heuristics discover the internal structure of the problems to build good neighbors for large neighborhood search. They are complementary to other generic neighborhood heuristics, with which they can be combined effectively. In addition, we propose to make the explanation system lazy in order to minimize its footprint. On the other hand, we undertake an inventory of know-how relative to propagation engines of constraint solvers. These data are used operationally through a domain specific language that allows users to customize the propagation schema, providing implementation structures and defining check points within the solver. This language offershigh-level concepts that allow the user to ignore the implementation details, while maintaining a good level of flexibility and some guarantees. It allows the expression of propagation schemas specific to the internal structure of each problem solved. Implementation and experiments were carried out in the Choco constraint solver, developed in this thesis. This has resulted in a new version of the overall effectiveness and natively explained tool.; La programmation par contraintes est souvent décrite, utopiquement, comme un paradigme déclaratif dans lequel l’utilisateur décrit son problème et le solveur le résout. Bien entendu, la réalité des solveurs de contraintes est plus complexe, et les besoins de personnalisation des techniques de modélisation et de résolution évoluent avec le degré d’expertise des utilisateurs. Cette thèse porte sur l’enrichissement de l’arsenal des techniques disponibles dans les solveurs de contraintes. D’une part, nous étudions la contribution d’un système d’explications à l’exploration de l’espace de recherche, dans le cadre spécifique d’une recherche locale. Deux heuristiques de voisinages génériques exploitant singulièrement les explications sont décrites. La première se base sur la difficulté de réparer une solution partiellement détruite, la seconde repose sur la nature non-optimale de la solution courante. Ces heuristiques mettent à jour la structure interne des problèmes traités pour construire des voisins de bonne qualité pour une recherche à voisinage large. Elles sont complémentaires d’autres heuristiques de voisinages génériques, avec lesquels elles peuvent être combinées efficacement. De plus, nous proposons de rendre le système d’explications paresseux afin d’en minimiser l’empreinte. D’autre part, nous effectuons un état des lieux des savoir-faire relatifs aux moteurs de propagation pour les solveurs de contraintes. Ces données sont exploitées opérationnellement à travers un langage dédié qui permet de personnaliser la propagation au sein d’un solveur, en fournissant des structures d’implémentation et en définissant des points de contrôle dans le solveur. Ce langage offre des concepts de haut niveau permettant à l’utilisateur d’ignorer les détails de mise en œuvre du solveur, tout en conservant un bon niveau de flexibilité et certaines garanties. Il permet l’expression de schémas de propagation spécifiques à la structure interne de chaque problème. La mise en œuvre et les expérimentations ont été effectués dans le solveur de contraintes Choco. Cette thèse a donné lieu à une nouvelle version de l’outil globalement plus efficace et nativement expliqué.

Constraint programming is often described, idealistically, as a declarative paradigm in which the user describes the problem and the solver solves it. Obviously, the reality of constraint solvers is more complex, and the needs in customization of modeling and solving techniques change with the level of expertise of users. This thesis focuses on enriching the arsenal of available techniques in constraint solvers. On the one hand, we study the contribution of an explanation system to the exploration of the search space in the specific context of a local search. Two generic neighborhood heuristics which exploit explanations singularly are described. The first one is based on the difficulty of repairing a partially destroyed solution, the second one is based on the non-optimal nature of the current solution. These heuristics discover the internal structure of the problems to build good neighbors for large neighborhood search. They are complementary to other generic neighborhood heuristics, with which they can be combined effectively. In addition, we propose to make the explanation system lazy in order to minimize its footprint. On the other hand, we undertake an inventory of know-how relative to propagation engines of constraint solvers. These data are used operationally through a domain specific language that allows users to customize the propagation schema, providing implementation structures and defining check points within the solver. This language offershigh-level concepts that allow the user to ignore the implementation details, while maintaining a good level of flexibility and some guarantees. It allows the expression of propagation schemas specific to the internal structure of each problem solved. Implementation and experiments were carried out in the Choco constraint solver, developed in this thesis. This has resulted in a new version of the overall effectiveness and natively explained tool.; La programmation par contraintes est souvent décrite, utopiquement, comme un paradigme déclaratif dans lequel l’utilisateur décrit son problème et le solveur le résout. Bien entendu, la réalité des solveurs de contraintes est plus complexe, et les besoins de personnalisation des techniques de modélisation et de résolution évoluent avec le degré d’expertise des utilisateurs. Cette thèse porte sur l’enrichissement de l’arsenal des techniques disponibles dans les solveurs de contraintes. D’une part, nous étudions la contribution d’un système d’explications à l’exploration de l’espace de recherche, dans le cadre spécifique d’une recherche locale. Deux heuristiques de voisinages génériques exploitant singulièrement les explications sont décrites. La première se base sur la difficulté de réparer une solution partiellement détruite, la seconde repose sur la nature non-optimale de la solution courante. Ces heuristiques mettent à jour la structure interne des problèmes traités pour construire des voisins de bonne qualité pour une recherche à voisinage large. Elles sont complémentaires d’autres heuristiques de voisinages génériques, avec lesquels elles peuvent être combinées efficacement. De plus, nous proposons de rendre le système d’explications paresseux afin d’en minimiser l’empreinte. D’autre part, nous effectuons un état des lieux des savoir-faire relatifs aux moteurs de propagation pour les solveurs de contraintes. Ces données sont exploitées opérationnellement à travers un langage dédié qui permet de personnaliser la propagation au sein d’un solveur, en fournissant des structures d’implémentation et en définissant des points de contrôle dans le solveur. Ce langage offre des concepts de haut niveau permettant à l’utilisateur d’ignorer les détails de mise en œuvre du solveur, tout en conservant un bon niveau de flexibilité et certaines garanties. Il permet l’expression de schémas de propagation spécifiques à la structure interne de chaque problème. La mise en œuvre et les expérimentations ont été effectués dans le solveur de contraintes Choco. Cette thèse a donné lieu à une nouvelle version de l’outil globalement plus efficace et nativement expliqué.

As an operator telecontrols real time industrial devices, his difficulties consist partly in apprehending the dynamic of the device. He has to solve problems in a context evolving not only under the influence of his own actions but also by new faults and reactions of automatic devices. In this paper we present DIAPASON, a simulation-based training system for telecontrol operators responsible for the management of the French medium voltage electrical power systems. During the training session, the trainee solves a problem without being interrupted by the system. He acts on a simulated power system without explaining his actions. On request, during the trainee's solving process, DIAPASON explains how the device runs and comments the trainee's solution. The design of DIAPASON is focussed on dynamic as all the functionalities of the system integrate it : simulation, explanation and assessment., La complexité de la conduite de dispositifs industriels temps réel provient en partie de la difficulté de l'opérateur à appréhender la dynamique du dispositif. Il doit résoudre un problème dans un contexte qui évolue sous l'effet de ses propres actions et de l'apparition d'anomalies et des réactions des automatismes. Nous présentons ici DIAPASON, un système d'entraînement à la conduite de réseaux électriques moyenne tension fondé sur la simulation où le stagiaire résout un cas sans être interrompu par le système. Il agit sur le réseau simulé sans justifier ses actions. En cours de résolution, DIAPASON lui fournit des explications sur le dispositif et des commentaires sur sa résolution. La dimension dynamique est au cœur de DIAPASON car elle a été intégrée dans toutes les fonctions du système : simulation, explication, évaluation. Elle se reflète dans la conception générale du système et dans la conception détaillée de chacun de ses modules., Joab Michelle, Auzende Odette, Moinard Claudine. La prise en compte de la dynamique dans la conception d'un système de formation professionnelle fondé sur la simulation. In: Sciences et techniques éducatives, volume 6 n°1, 1999. Simulation et formation professionnelle dans l'industrie, sous la direction de Michelle Joab et Guy Gouardères. pp. 61-93.

National audience; Cet article présente tout d'abord comment nous nous sommes inspirés d'un paradigme issu de l'Intelligence Artificielle, le Raisonnement à Partir de Cas, pour proposer un processus permettant l'apprentissage de méthodes de résolution de problèmes fondées sur une classification des problèmes du domaine. Ce processus d'apprentissage ayant été mis en œuvre dans un EIAH destiné à enseigner la résolution de problèmes arithmétiques à l'école primaire, nous décrivons également les bases de connaissances permettant au système de dia- gnostiquer les réponses de l'élève et de lui fournir des explications.

Explanation is a complex discourse behaviour which aims to establish, for the listener, a relationship between a "key event"" and a cause or reason. This inductive research described the genesis of explanation in one child (from the age of 22 months to 28 months) through mother-child reading interaction using one story. The child participated in a shared book reading session every day. Once a month, the same book was used, and the session was videotaped and transcribed verbatim (gestures and words). The analysis focussed on the causal links made by the child concerning key events in the story. The child's words and gestures were classified, through logic analysis, by level of discourse behaviour. Based on this classification, a grid relating to the emergence of explanatory activity was constructed, listing criteria worked out by two judges during the analysis phase. A preliminary form of explanation emerged when the child connected the words in the story to his immediate surroundings by reproducing the actions in the book or pointing out elements that were similar in his own environment. A second form of explanation appeared when the child took an action from the story and causally extended it into other actions. A more complex form manifested itself when the child referred to an emotion in the illustration and linked it to an event in the story, leading to the beginning of the construction of the key components of narrative (problem/solution). The progression of these behaviours appears to be the prelude to verbalized explanations.; L'explication est une conduite discursive complexe qui vise à établir, pour un destinataire, une relation entre un " événement cible ", et une cause ou une raison. L'objectif de cette recherche inductive est de décrire, chez un enfant, la genèse de l'explication en situation d'interaction mère-enfant autour d'un récit. À la collecte de données, l'enfant avait 22 mois au départ et 28 à la fin. L'enfant a participé à une lecture interactive quotidienne. Une fois par mois, un même livre a été utilisé, puis la séance a été filmée et transcrite verbatim (gestes et propos). L'analyse a porté sur l'expression de liens de causalité faite par l'enfant se rapportant à des événements clés du récit. Les propos de l'enfant ont été classifiés afin de regrouper, par analyse logique, des niveaux de conduites. À partir de cette catégorisation, une grille sur l'émergence de l'explication a été construite en y précisant les critères débattus entre deux juges. Une forme préliminaire d'explication émerge lorsque l'enfant relie les propos du récit à son univers immédiat en reproduisant des actions du livre ou en pointant des éléments similaires dans son environnement. Une deuxième forme d'explication apparaît quand l'enfant, à partir d'une action lue, la prolonge causalement en actions. Une forme plus complexe se manifeste lorsque l'enfant se réfère à une émotion sur l'illustration à laquelle il relie un événement lu permettant le début de la construction de composantes clés du récit (problème/ solution). La progression de ces conduites semble être le prélude aux explications verbalisées.

Explanation is a complex discourse behaviour which aims to establish, for the listener, a relationship between a "key event"" and a cause or reason. This inductive research described the genesis of explanation in one child (from the age of 22 months to 28 months) through mother-child reading interaction using one story. The child participated in a shared book reading session every day. Once a month, the same book was used, and the session was videotaped and transcribed verbatim (gestures and words). The analysis focussed on the causal links made by the child concerning key events in the story. The child's words and gestures were classified, through logic analysis, by level of discourse behaviour. Based on this classification, a grid relating to the emergence of explanatory activity was constructed, listing criteria worked out by two judges during the analysis phase. A preliminary form of explanation emerged when the child connected the words in the story to his immediate surroundings by reproducing the actions in the book or pointing out elements that were similar in his own environment. A second form of explanation appeared when the child took an action from the story and causally extended it into other actions. A more complex form manifested itself when the child referred to an emotion in the illustration and linked it to an event in the story, leading to the beginning of the construction of the key components of narrative (problem/solution). The progression of these behaviours appears to be the prelude to verbalized explanations., L'explication est une conduite discursive complexe qui vise à établir, pour un destinataire, une relation entre un " événement cible ", et une cause ou une raison. L'objectif de cette recherche inductive est de décrire, chez un enfant, la genèse de l'explication en situation d'interaction mère-enfant autour d'un récit. À la collecte de données, l'enfant avait 22 mois au départ et 28 à la fin. L'enfant a participé à une lecture interactive quotidienne. Une fois par mois, un même livre a été utilisé, puis la séance a été filmée et transcrite verbatim (gestes et propos). L'analyse a porté sur l'expression de liens de causalité faite par l'enfant se rapportant à des événements clés du récit. Les propos de l'enfant ont été classifiés afin de regrouper, par analyse logique, des niveaux de conduites. À partir de cette catégorisation, une grille sur l'émergence de l'explication a été construite en y précisant les critères débattus entre deux juges. Une forme préliminaire d'explication émerge lorsque l'enfant relie les propos du récit à son univers immédiat en reproduisant des actions du livre ou en pointant des éléments similaires dans son environnement. Une deuxième forme d'explication apparaît quand l'enfant, à partir d'une action lue, la prolonge causalement en actions. Une forme plus complexe se manifeste lorsque l'enfant se réfère à une émotion sur l'illustration à laquelle il relie un événement lu permettant le début de la construction de composantes clés du récit (problème/ solution). La progression de ces conduites semble être le prélude aux explications verbalisées.

Le biais domestique est défini par l'écart entre les parts d'actifs étrangers prédites par la théorie de portefeuilles et les parts effectivement investies dans les titres étrangers. Cet article présente une quantification de la préférence pour les titres domestiques ainsi qu'une analyse critique des explications le plus souvent avancées dans la littérature des marchés financiers du manque de diversification internationale de portefeuilles. Si les explications d'ordre institutionnel paraissent insuffisantes, les facteurs comportementaux et le risque de change suscitent plus d'approfondissement.

A paraître

Trata-se de um dossiê sobre método no estudo da política. São discutidas metodologias crescentemente utilizadas em período recente, enfocando-se inicialmente elementos relativos à ontologia da política, aos processos analisados e ao próprio estatuto explicativo das diferentes perspectivas. Posteriormente, são discutidos de maneira mais detalhada os avanços trazidos pela análise neoinstitucionalista, pelos estudos históricos, pela análise de redes sociais e pela antropologia da política. This is a dossier on method in studying politics. Prevailing methodologies are discussed focusing initially on elements relating to political ontology, processes analyzed, and the very explicative statute of different perspectives. Afterwards, advances brought by neoinstitutionalist analysis, historical studies, social network studies, and political anthropology are more carefully discussed. Il s’agit d’un dossier sur la méthode dans l’étude de la politique. Des méthodologies de plus en plus employées dans la période récente sont discutées. Nous nous attachons initialement aux éléments relatifs à l’ontologie de la politique, aux processus analysés et au propre statut explicatif des différentes perspectives. Postérieurement, nous abordons de manière plus détaillée les avancées dues à l’analyse néoinstitutionnaliste, par les études historiques, par l’analyse de réseaux sociaux et par l’anthropologie de la politique.

Constraint programming is a search paradigm for solving combinatorial optimization pro- blems, that has been used to design generic solvers. Numerous researches are conducted to deal with over-constrained and dynamic problems. One of those, is based on the concept of explanations. Explanations provide a trace of the behavior of the solver and have been initially introduce to improve backtracking based algorithms. They have been used to design clever but costly ways of exploring the search space since that day. This phd thesis study explanation based algorithms on industrial as well as academical problems. We study the interest of explanation within generic decomposition techniques and imple- ment such an algorithm for a hard real time task allocation problem. This approach outlines the role of explanations within the cooperation of di®erent solving techniques. We also show that the explanation network is a relevant information to analyse the struc- tures of a problem and understand the relationships between its di®erent parts (variables and constraints). This information, used to improve the search heuristic, is another step toward generic search techniques. Finally, explanations have been often used for look-back but are still under-exploited for look-ahead in CP. Nogood recording techniques have never been successful contrary to what happended in the SAT community. We implement in this thesis such a nogood recording in the case of the minimum open stack problem.; La programmation par contraintes est un paradigme de résolution des problèmes combinatoires sur lequel ont été bâtis des outils génériques de résolution, des solveurs. De nombreuses recherches sont menées pour élargir le champ d'application de ces outils µa des problèmes dynamiques et sur-contraints. Un axe prometteur s'appuie sur la notion d'explications. Les explications constituent une trace explicite du comportement du solveur et ont été initialement introduites pour améliorer les algorithmes de recherche arborescente. Depuis ce jour, elles ont ouvert la voie à des méthodes d'exploration plus intelligentes (mais aussi plus coûteuses) de l'espace de recherche. Cette thèse porte sur l'élaboration d'algorithmes de résolution s'appuyant sur la notion d'explications et les étudie sur des problèmes autant académiques qu'industriels. D'une part, nous examinons l'intérêt des explications dans le cadre de techniques génériques de décomposition. La mise au point d'un tel algorithme dans le contexte d'ordonnancement temps réel a montré la souplesse de la technique pour permettre la coopération de méthodes analytiques pointues avec un solveur de contraintes. D'autre part, nous montrons que le réseau d'explication constitue une information particulièrement pertinente pour révéler à un utilisateur les structures ou relations entretenues par différents éléments (variables/contraintes) du problème. Cette information, également exploitable dynamiquement par le solveur est un pas supplémentaire vers des approches de résolution génériques. Enfin, les explications ont été jusqu'ici très utilisées dans un cadre rétrospectif et pourraient l'être davantage dans un cadre prospectif (à l'image de leur exploitation par la communauté SAT). Nous revenons ainsi dans cette thèse sur des techniques de nogoods recording dans le cadre du problème de MOSP (Minimum Open Stack Problem).

Constraint programming is a search paradigm for solving combinatorial optimization pro- blems, that has been used to design generic solvers. Numerous researches are conducted to deal with over-constrained and dynamic problems. One of those, is based on the concept of explanations. Explanations provide a trace of the behavior of the solver and have been initially introduce to improve backtracking based algorithms. They have been used to design clever but costly ways of exploring the search space since that day. This phd thesis study explanation based algorithms on industrial as well as academical problems. We study the interest of explanation within generic decomposition techniques and imple- ment such an algorithm for a hard real time task allocation problem. This approach outlines the role of explanations within the cooperation of di®erent solving techniques. We also show that the explanation network is a relevant information to analyse the struc- tures of a problem and understand the relationships between its di®erent parts (variables and constraints). This information, used to improve the search heuristic, is another step toward generic search techniques. Finally, explanations have been often used for look-back but are still under-exploited for look-ahead in CP. Nogood recording techniques have never been successful contrary to what happended in the SAT community. We implement in this thesis such a nogood recording in the case of the minimum open stack problem.; La programmation par contraintes est un paradigme de résolution des problèmes combinatoires sur lequel ont été bâtis des outils génériques de résolution, des solveurs. De nombreuses recherches sont menées pour élargir le champ d'application de ces outils µa des problèmes dynamiques et sur-contraints. Un axe prometteur s'appuie sur la notion d'explications. Les explications constituent une trace explicite du comportement du solveur et ont été initialement introduites pour améliorer les algorithmes de recherche arborescente. Depuis ce jour, elles ont ouvert la voie à des méthodes d'exploration plus intelligentes (mais aussi plus coûteuses) de l'espace de recherche. Cette thèse porte sur l'élaboration d'algorithmes de résolution s'appuyant sur la notion d'explications et les étudie sur des problèmes autant académiques qu'industriels. D'une part, nous examinons l'intérêt des explications dans le cadre de techniques génériques de décomposition. La mise au point d'un tel algorithme dans le contexte d'ordonnancement temps réel a montré la souplesse de la technique pour permettre la coopération de méthodes analytiques pointues avec un solveur de contraintes. D'autre part, nous montrons que le réseau d'explication constitue une information particulièrement pertinente pour révéler à un utilisateur les structures ou relations entretenues par différents éléments (variables/contraintes) du problème. Cette information, également exploitable dynamiquement par le solveur est un pas supplémentaire vers des approches de résolution génériques. Enfin, les explications ont été jusqu'ici très utilisées dans un cadre rétrospectif et pourraient l'être davantage dans un cadre prospectif (à l'image de leur exploitation par la communauté SAT). Nous revenons ainsi dans cette thèse sur des techniques de nogoods recording dans le cadre du problème de MOSP (Minimum Open Stack Problem).

This paper describes how is represented knowledge in the Intelligent Tutoring System (ITS) AMBRE-add. This ITS intend to teach methods and is based on didactical studies and cognitive psychology studies. The Case-Based Reasoning paradigm is used to help the learner to find himself problems classes, using problems he or she has already seen during the learning. We describe how is represented domain knowledge and pedagogic knowledge in this ITS, presenting the architecture of a knowledge based system that enable to give help to the learner, to diagnose his or her answers and to explain his or her mistakes., Dans cet article, nous décrivons comment sont représentées les connaissances dans l'Environnement Informatique pour l'Apprentissage Humain (EIAH) AMBRE-add. Cet EIAH, destiné à l'apprentissage d'une méthode de résolution de problèmes additifs, s'appuie sur des études en didactique des mathématiques et en psychologie cognitive. Il exploite le paradigme du raisonnement à partir de cas pour permettre à l'apprenant de mettre lui-même en évidence des classes de problèmes, en utilisant des problèmes qu'il a déjà rencontrés au cours de l'apprentissage. Nous décrivons comment sont représentées les connaissances du domaine et les connaissances pédagogiques dans cet EIAH, en présentant l'architecture du système à base de connaissances permettant d'assurer des fonctionnalités d'aide, de diagnostic des réponses de l'apprenant et d'explication de ses erreurs.

Constraint programming is a research topic benefiting from many other areas: discrete mathematics, numerical analysis, artificial intelligence, operations research, and formal calculus. It has proven its interest and its efficiency in various domains: combinatorial optimization, scheduling, finance, simulation and synthesis, diagnosis, molecular biology, or geometrical problems. However, some limitations and difficulties remain: designing stable and generic algorithms, handling dynamic problems, opening constraint programming to non-specialists, etc.In this document, we advocate the use of explanations within constraint programming. Our aim is two-fold: drawing the big picture about explanations (definition, generation, management and use) and showing that they can help address several issues in constraint programming. We also introduce a new general explanation-based search technique that has been successfully used to design new efficient algorithms. Finally, current open issues and research topics in this field are presented.; La programmation par contraintes est un sujet de recherche qui tire profit de nombreuses autres disciplines : mathématiques discrètes, analyse numérique, intelligence artificielle, recherche opérationnelle et calcul formel. Elle a prouvé son intérêt et son efficacité dans de nombreux domaines : optimisation combinatoire, ordonnancement, finance, simulation et synthèse de composants, diagnostic de panne, biologie moléculaire, ou encore problèmes géométriques. Néanmoins, un certain nombre de limitations et de difficultés ont été identifiées dans le domaine : conception d'algorithmes génériques et stables, traitement des problèmes dynamiques, accessibilité des concepts et des outils, ...Dans ce document, nous plaidons pour l'utilisation de la notion d'explication au sein de la programmation par contraintes. Notre but est double : non seulement présenter un tableau général des explications (définition, génération et utilisations) mais aussi montrer comment leur utilisation permet de contribuer à lever certains des problèmes ouverts en programmation par contraintes. Nous présentons aussi une démarche générale de résolution de problème dans un environnement expliqué. Enfin, nous montrons comment ce nouveau sujet semble promis à un bel avenir.

Chroniques Economiques, Le Cercle des Economistes

In this paper, the members of the computer science laboratory of Le Mans (LIUM), in the AIED and microworld team, show the researches that have been undertaken under the direction or the impulsion of Martial Vivet. A first part of the text underlines the foundations of the scientific policy and describes the works of the team around three main strands : intelligent tutoring systems and pedagogical planning, microworlds design for vocational training, and, finally, learning situations modelling and open and distributed learning environments. A discussion about current research issues closes this overview., Dans ce texte, les membres du LIUM ayant travaillé dans l’équipe EIAO présentent les recherches conduites sous la direction de Martial Vivet ou impulsées par lui. Une première partie développe les fondements de la politique scientifique suivie et décrit les travaux de l’équipe en les regroupant autour de trois axes principaux : les tuteurs intelligents et la planification pédagogique, la conception de micromondes pour la formation professionnelle et, enfin, la modélisation des situations d’apprentissage et les environnements d’apprentissage ouverts et distribués. Une discussion autour des problématiques de recherche actuelles dans le domaine termine ce tour d’horizon., Bruillard Eric, Delozanne Elisabeth, Leroux Pascal, Delannoy Paul, Dubourg Xavier, Jacoboni Pierre, Lehuen Jérôme, Luzzati Daniel, Teutsch Philippe. Quinze ans de recherche informatique sur les sciences et techniques éducatives au LIUM. In: Sciences et techniques éducatives, volume 7 n°1, 2000. Education et informatique. Hommage à Martial Vivet. pp. 87-145.

Not available, Cette thèse se situe dans le domaine de la modélisation des connaissances utilisées dans la résolution de problèmes complexes. Les idées développées dans cette thèse ont été validées dans le développement d'un environnement (ESTHER) destiné à aider les radiothérapeutes à définir des plans de traitement en radiothérapie. Dans la première partie du document, nous avons voulu montrer qu'il existe plusieurs types de problèmes dont chacun fait intervenir des informations ainsi que des modes de résolution spécifiques. La planification en radiothérapie est traitée comme exemple. Dans la seconde partie de la thèse, nous avons mis en relation l'acquisition de connaissances avec la conception d'explications, l'utilisation et la construction de systèmes à base de connaissances afin de dégager les liens entre les domaines. Nous nous sommes également intéressés aux images qui entrent pour une large part dans le processus de décision en radiothérapie. ESTHER, décrit dans la troisième partie du document, a été développé en collaboration avec le Centre Alexis Vautrin de Nancy. Il est constitué de bases de connaissances modulaires, des outils qui les gèrent et d'un moteur d'inférences, développé dans le cadre du travail. Nous avons insisté sur l'articulation entre la modélisation des connaissances et la représentation informatique. La dernière partie de cette thèse présente quelques enseignements tirés de l'acquisition et de la modélisation des connaissances.

International audience; Le sentiment d'insécurité, ainsi que les enjeux que recouvre le problème social des violences à l'école, contribuent à faire tourner le carrousel, et, parfois, à l'emballer : enjeux médiatiques, politiques, professionnels... Les connaissances sur le sujet connaissent une augmentation exponentielle depuis les années 1990. Permettent-elles de descendre du manège ? A quelles conditions ? L'observation de l'évolution du phénomène et des faits qu'il recouvre donneront la possibilité de mettre à plat les explications sur les violences à l'école et leur portée. Les réponses à la violence envisagées au niveau national ou à celui des établissements sont annoncées comme des mesures de bon sens, pragmatiques... finalement nécessaires. L'analyse de réponses archétypales aux violences scolaires (réponse sécuritaire, appel à la citoyenneté) montre, au contraire, qu'elles sont ancrées sur des analyses politiques différentes et qu'elles relèvent bien d'un choix de société. La présentation d'une école fonctionnant en pédagogie Freinet et de son socle idéologique permet de le mettre en lumière.