Search

Your search keyword '"Alexandre, Frédéric"' showing total 583 results
Start Over Author "Alexandre, Frédéric"

Refine your results

more »

more »

more »

more »
583 results on '"Alexandre, Frédéric"'

1. Deep Neural Networks and Brain Alignment: Brain Encoding and Decoding (Survey)

Author

Oota, Subba Reddy, Chen, Zijiao, Gupta, Manish, Bapi, Raju S., Jobard, Gael, Alexandre, Frederic, and Hinaut, Xavier

Subjects
Quantitative Biology - Neurons and Cognition, Computer Science - Artificial Intelligence, Computer Science - Computation and Language, Computer Science - Computer Vision and Pattern Recognition, Computer Science - Human-Computer Interaction, Computer Science - Machine Learning
Abstract

Can we obtain insights about the brain using AI models? How is the information in deep learning models related to brain recordings? Can we improve AI models with the help of brain recordings? Such questions can be tackled by studying brain recordings like functional magnetic resonance imaging (fMRI). As a first step, the neuroscience community has contributed several large cognitive neuroscience datasets related to passive reading/listening/viewing of concept words, narratives, pictures, and movies. Encoding and decoding models using these datasets have also been proposed in the past two decades. These models serve as additional tools for basic cognitive science and neuroscience research. Encoding models aim at generating fMRI brain representations given a stimulus automatically. They have several practical applications in evaluating and diagnosing neurological conditions and thus may also help design therapies for brain damage. Decoding models solve the inverse problem of reconstructing the stimuli given the fMRI. They are useful for designing brain-machine or brain-computer interfaces. Inspired by the effectiveness of deep learning models for natural language processing, computer vision, and speech, several neural encoding and decoding models have been recently proposed. In this survey, we will first discuss popular representations of language, vision and speech stimuli, and present a summary of neuroscience datasets. Further, we will review popular deep learning based encoding and decoding architectures and note their benefits and limitations. Finally, we will conclude with a summary and discussion about future trends. Given the large amount of recently published work in the computational cognitive neuroscience (CCN) community, we believe that this survey enables an entry point for DNN researchers to diversify into CCN research., Comment: 47 pages, 23 figures

Published
2023

2. Teaching and learning in the age of artificial intelligence

Author

Romero, Margarida, Heiser, Laurent, Lepage, Alexandre, Gagnebien, Anne, Bonjour, Audrey, Lagarrigue, Aurélie, Palaude, Axel, Boulord, Caroline, Gagneur, Charles-Antoine, Mercier, Chloé, Caucheteux, Christelle, Guidoni-Stoltz, Dominique, Tressols, Florence, Alexandre, Frédéric, Céci, Jean-François, Metral, Jean-François, Camponovo, Jérémy, Henry, Julie, Fouché, Laurent, Hodgkins, Lianne-Blue, Comte, Marie-Hélène, Durampart, Michel, Corieri, Patricia, Olry, Paul, Reboul, Pauline, Bonfils, Philippe, Amor, Sami Ben, Collin, Simon, Ciavaldini-Cartaut, Solange, Viéville, Thierry, Batifol, Victoire, and Borgne, Yann-Aël Le

Subjects
Computer Science - Human-Computer Interaction
Abstract

As part of the Digital Working Group (GTnum) #Scol_IA "Renewal of digital practices and creative uses of digital and AI" we are pleased to present the white paper "Teaching and learning in the era of Artificial Intelligence, Acculturation, integration and creative uses of AI in education". The white paper edited by Margarida Romero, Laurent Heiser and Alexandre Lepage aims to provide the various educational actors with a diversified perspective both on the issues of acculturation and training in AI and on the resources and feedback from the various research teams and organisations. of scientific culture in the French-speaking countries. A multidisciplinary approach makes it possible to consider the perspectives of researchers in computer science as well as those of education and training sciences, information and communication sciences and the expertise of teaching professionals. and scientific mediation., Comment: in French language

Published
2023

3. Prediction of Reaching Movements with Target Information Towards Trans-humeral Prosthesis Control Using Reservoir Computing and LSTMs

Author

Bernard, Paul, Alexandre, Frédéric, Hinaut, Xavier, Goos, Gerhard, Series Editor, Hartmanis, Juris, Founding Editor, Bertino, Elisa, Editorial Board Member, Gao, Wen, Editorial Board Member, Steffen, Bernhard, Editorial Board Member, Yung, Moti, Editorial Board Member, Wand, Michael, editor, Malinovská, Kristína, editor, Schmidhuber, Jürgen, editor, and Tetko, Igor V., editor

Published
2024
Full Text
View/download PDF

5. From implicit learning to explicit representations

Author

Chaix-Eichel, Naomi, Dagar, Snigdha, Lanneau, Quentin, Sobriel, Karen, Boraud, Thomas, Alexandre, Frédéric, and Rougier, Nicolas P.

Subjects
Computer Science - Neural and Evolutionary Computing
Abstract

Using the reservoir computing framework, we demonstrate how a simple model can solve an alternation task without an explicit working memory. To do so, a simple bot equipped with sensors navigates inside a 8-shaped maze and turns alternatively right and left at the same intersection in the maze. The analysis of the model's internal activity reveals that the memory is actually encoded inside the dynamics of the network. However, such dynamic working memory is not accessible such as to bias the behavior into one of the two attractors (left and right). To do so, external cues are fed to the bot such that it can follow arbitrary sequences, instructed by the cue. This model highlights the idea that procedural learning and its internal representation can be dissociated. If the former allows to produce behavior, it is not sufficient to allow for an explicit and fine-grained manipulation., Comment: 6 pages, 7 figures, conference

Published
2022

7. Knowledge extraction from the learning of sequences in a long short term memory (LSTM) architecture

Author

Kaadoud, Ikram Chraibi, Rougier, Nicolas P., and Alexandre, Frédéric

Subjects
Computer Science - Machine Learning, Computer Science - Neural and Evolutionary Computing, Statistics - Machine Learning
Abstract

We introduce a general method to extract knowledge from a recurrent neural network (Long Short Term Memory) that has learnt to detect if a given input sequence is valid or not, according to an unknown generative automaton. Based on the clustering of the hidden states, we explain how to build and validate an automaton that corresponds to the underlying (unknown) automaton, and allows to predict if a given sequence is valid or not. The method is illustrated on artificial grammars (Reber's grammar variations) as well as on a real use-case whose underlying grammar is unknown., Comment: 18 pages, 17 figures

Published
2019

8. Multi-task Learning with Modular Reinforcement Learning

Author

Xue, Jianyong, Alexandre, Frédéric, Goos, Gerhard, Founding Editor, Hartmanis, Juris, Founding Editor, Bertino, Elisa, Editorial Board Member, Gao, Wen, Editorial Board Member, Steffen, Bernhard, Editorial Board Member, Yung, Moti, Editorial Board Member, Cañamero, Lola, editor, Gaussier, Philippe, editor, Wilson, Myra, editor, Boucenna, Sofiane, editor, and Cuperlier, Nicolas, editor

Published
2022
Full Text
View/download PDF

9. From Concrete to Abstract Rules: A Computational Sketch

Author

Dagar, Snigdha, Alexandre, Frederic, Rougier, Nicolas, Goos, Gerhard, Founding Editor, Hartmanis, Juris, Founding Editor, Bertino, Elisa, Editorial Board Member, Gao, Wen, Editorial Board Member, Steffen, Bernhard, Editorial Board Member, Yung, Moti, Editorial Board Member, Mahmud, Mufti, editor, He, Jing, editor, Vassanelli, Stefano, editor, van Zundert, André, editor, and Zhong, Ning, editor

Published
2022
Full Text
View/download PDF

10. Bio-inspired Robotics

Author

Escobar, María-José, Alexandre, Frédéric, Viéville, Thierry, Palacios, Adrian, Valavanis, Kimon P., Series Editor, Antsaklis, P., Advisory Editor, Borne, P., Advisory Editor, Carelli, R., Advisory Editor, Fukuda, T., Advisory Editor, Gans, N.R., Advisory Editor, Harashima, F., Advisory Editor, Martinet, P., Advisory Editor, Monaco, S., Advisory Editor, Negenborn, R.R., Advisory Editor, Pascoal, António, Advisory Editor, Schmidt, G., Advisory Editor, Sobh, T.M., Advisory Editor, Tzafestas, C., Advisory Editor, Auat, Fernando, editor, Prieto, Pablo, editor, and Fantoni, Gualtiero, editor

Published
2022
Full Text
View/download PDF

12. Sustainable computational science: the ReScience initiative

Author

Rougier, Nicolas P., Hinsen, Konrad, Alexandre, Frédéric, Arildsen, Thomas, Barba, Lorena, Benureau, Fabien C. Y., Brown, C. Titus, de Buyl, Pierre, Caglayan, Ozan, Davison, Andrew P., Delsuc, Marc André, Detorakis, Georgios, Diem, Alexandra K., Drix, Damien, Enel, Pierre, Girard, Benoît, Guest, Olivia, Hall, Matt G., Henriques, Rafael Neto, Hinaut, Xavier, Jaron, Kamil S, Khamassi, Mehdi, Klein, Almar, Manninen, Tiina, Marchesi, Pietro, McGlinn, Dan, Metzner, Christoph, Petchey, Owen L., Plesser, Hans Ekkehard, Poisot, Timothée, Ram, Karthik, Ram, Yoav, Roesch, Etienne, Rossant, Cyrille, Rostami, Vahid, Shifman, Aaron, Stachelek, Joseph, Stimberg, Marcel, Stollmeier, Frank, Vaggi, Federico, Viejo, Guillaume, Vitay, Julien, Vostinar, Anya, Yurchak, Roman, and Zito, Tiziano

Subjects
Computer Science - Digital Libraries
Abstract

Computer science offers a large set of tools for prototyping, writing, running, testing, validating, sharing and reproducing results, however computational science lags behind. In the best case, authors may provide their source code as a compressed archive and they may feel confident their research is reproducible. But this is not exactly true. James Buckheit and David Donoho proposed more than two decades ago that an article about computational results is advertising, not scholarship. The actual scholarship is the full software environment, code, and data that produced the result. This implies new workflows, in particular in peer-reviews. Existing journals have been slow to adapt: source codes are rarely requested, hardly ever actually executed to check that they produce the results advertised in the article. ReScience is a peer-reviewed journal that targets computational research and encourages the explicit replication of already published research, promoting new and open-source implementations in order to ensure that the original research can be replicated from its description. To achieve this goal, the whole publishing chain is radically different from other traditional scientific journals. ReScience resides on GitHub where each new implementation of a computational study is made available together with comments, explanations, and software tests., Comment: 8 pages, 1 figure

Published
2017
Full Text
View/download PDF

13. Reinforcement Symbolic Learning

Author

Mercier, Chloé, Alexandre, Frédéric, Viéville, Thierry, Goos, Gerhard, Founding Editor, Hartmanis, Juris, Founding Editor, Bertino, Elisa, Editorial Board Member, Gao, Wen, Editorial Board Member, Steffen, Bernhard, Editorial Board Member, Woeginger, Gerhard, Editorial Board Member, Yung, Moti, Editorial Board Member, Farkaš, Igor, editor, Masulli, Paolo, editor, Otte, Sebastian, editor, and Wermter, Stefan, editor

Published
2021
Full Text
View/download PDF

19. Sustainable computational science: the ReScience initiative

Author

Rougier, Nicolas P, Hinsen, Konrad, Alexandre, Frédéric, Arildsen, Thomas, Barba, Lorena A, Benureau, Fabien CY, Brown, C Titus, de Buyl, Pierre, Caglayan, Ozan, Davison, Andrew P, Delsuc, Marc-André, Detorakis, Georgios, Diem, Alexandra K, Drix, Damien, Enel, Pierre, Girard, Benoît, Guest, Olivia, Hall, Matt G, Henriques, Rafael N, Hinaut, Xavier, Jaron, Kamil S, Khamassi, Mehdi, Klein, Almar, Manninen, Tiina, Marchesi, Pietro, McGlinn, Daniel, Metzner, Christoph, Petchey, Owen, Plesser, Hans Ekkehard, Poisot, Timothée, Ram, Karthik, Ram, Yoav, Roesch, Etienne, Rossant, Cyrille, Rostami, Vahid, Shifman, Aaron, Stachelek, Joseph, Stimberg, Marcel, Stollmeier, Frank, Vaggi, Federico, Viejo, Guillaume, Vitay, Julien, Vostinar, Anya E, Yurchak, Roman, and Zito, Tiziano

Subjects
Information and Computing Sciences, Software Engineering, Networking and Information Technology R&D (NITRD), Computational science, Open science, Publication, Reproducible, Replicable, Sustainable, GitHub, Open peer-review
Abstract

Computer science offers a large set of tools for prototyping, writing, running, testing, validating, sharing and reproducing results; however, computational science lags behind. In the best case, authors may provide their source code as a compressed archive and they may feel confident their research is reproducible. But this is not exactly true. James Buckheit and David Donoho proposed more than two decades ago that an article about computational results is advertising, not scholarship. The actual scholarship is the full software environment, code, and data that produced the result. This implies new workflows, in particular in peer-reviews. Existing journals have been slow to adapt: source codes are rarely requested and are hardly ever actually executed to check that they produce the results advertised in the article. ReScience is a peer-reviewed journal that targets computational research and encourages the explicit replication of already published research, promoting new and open-source implementations in order to ensure that the original research can be replicated from its description. To achieve this goal, the whole publishing chain is radically different from other traditional scientific journals. ReScience resides on GitHub where each new implementation of a computational study is made available together with comments, explanations, and software tests.

Published
2017

22. A Survival Task for the Design and the Assessment of an Autonomous Agent

Author

Nallapu, Bhargav Teja, Alexandre, Frédéric, Hutchison, David, Series Editor, Kanade, Takeo, Series Editor, Kittler, Josef, Series Editor, Kleinberg, Jon M., Series Editor, Mattern, Friedemann, Series Editor, Mitchell, John C., Series Editor, Naor, Moni, Series Editor, Pandu Rangan, C., Series Editor, Steffen, Bernhard, Series Editor, Terzopoulos, Demetri, Series Editor, Tygar, Doug, Series Editor, Weikum, Gerhard, Series Editor, Vouloutsi, Vasiliki, editor, Halloy, José, editor, Mura, Anna, editor, Mangan, Michael, editor, Lepora, Nathan, editor, Prescott, Tony J., editor, and Verschure, Paul F.M.J., editor

Published
2018
Full Text
View/download PDF

23. A computational approach to the covert and overt deployment of spatial attention

Author

Fix, Jérémy, Rougier, Nicolas P., and Alexandre, Frédéric

Subjects
Computer Science - Neural and Evolutionary Computing
Abstract

Popular computational models of visual attention tend to neglect the influence of saccadic eye movements whereas it has been shown that the primates perform on average three of them per seconds and that the neural substrate for the deployment of attention and the execution of an eye movement might considerably overlap. Here we propose a computational model in which the deployment of attention with or without a subsequent eye movement emerges from local, distributed and numerical computations.

Published
2008

27. Implicit Knowledge Extraction and Structuration from Electrical Diagrams

Author

Chraibi Kaadoud, Ikram, Rougier, Nicolas, Alexandre, Frederic, Hutchison, David, Series editor, Kanade, Takeo, Series editor, Kittler, Josef, Series editor, Kleinberg, Jon M., Series editor, Mattern, Friedemann, Series editor, Mitchell, John C., Series editor, Naor, Moni, Series editor, Pandu Rangan, C., Series editor, Steffen, Bernhard, Series editor, Terzopoulos, Demetri, Series editor, Tygar, Doug, Series editor, Weikum, Gerhard, Series editor, Benferhat, Salem, editor, Tabia, Karim, editor, and Ali, Moonis, editor

Published
2017
Full Text
View/download PDF

28. Neuronal Spectral Analysis of EEG and Expert Knowledge Integration for Automatic Classification of Sleep Stages

Author

Kerkeni, Nizar, Alexandre, Frederic, Bedoui, Mohamed Hedi, Bougrain, Laurent, and Dogui, Mohamed

Subjects
Computer Science - Artificial Intelligence
Abstract

Being able to analyze and interpret signal coming from electroencephalogram (EEG) recording can be of high interest for many applications including medical diagnosis and Brain-Computer Interfaces. Indeed, human experts are today able to extract from this signal many hints related to physiological as well as cognitive states of the recorded subject and it would be very interesting to perform such task automatically but today no completely automatic system exists. In previous studies, we have compared human expertise and automatic processing tools, including artificial neural networks (ANN), to better understand the competences of each and determine which are the difficult aspects to integrate in a fully automatic system. In this paper, we bring more elements to that study in reporting the main results of a practical experiment which was carried out in an hospital for sleep pathology study. An EEG recording was studied and labeled by a human expert and an ANN. We describe here the characteristics of the experiment, both human and neuronal procedure of analysis, compare their performances and point out the main limitations which arise from this study.

Published
2005

30. A System-Level Model of Noradrenergic Function

Author

Carrere, Maxime, Alexandre, Frédéric, Hutchison, David, Series editor, Kanade, Takeo, Series editor, Kittler, Josef, Series editor, Kleinberg, Jon M., Series editor, Mattern, Friedemann, Series editor, Mitchell, John C., Series editor, Naor, Moni, Series editor, Pandu Rangan, C., Series editor, Steffen, Bernhard, Series editor, Terzopoulos, Demetri, Series editor, Tygar, Doug, Series editor, Weikum, Gerhard, Series editor, Villa, Alessandro E.P., editor, Masulli, Paolo, editor, and Pons Rivero, Antonio Javier, editor

Published
2016
Full Text
View/download PDF

31. Modeling Neuromodulation as a Framework to Integrate Uncertainty in General Cognitive Architectures

Author

Alexandre, Frédéric, Carrere, Maxime, Hutchison, David, Series editor, Kanade, Takeo, Series editor, Kittler, Josef, Series editor, Kleinberg, Jon M., Series editor, Mattern, Friedemann, Series editor, Mitchell, John C., Series editor, Naor, Moni, Series editor, Pandu Rangan, C., Series editor, Steffen, Bernhard, Series editor, Terzopoulos, Demetri, Series editor, Tygar, Doug, Series editor, Weikum, Gerhard, Series editor, Steunebrink, Bas, editor, Wang, Pei, editor, and Goertzel, Ben, editor

Published
2016
Full Text
View/download PDF

32. Une approche computationnelle des sciences de l'éducation : modélisation de la résolution créative de problèmes dans l'interaction enfant-robot par le biais de traces d'apprentissage de type comportamentale

Author

Romero, Margarida, Alexandre, Frédéric, Laboratoire d'Innovation et Numérique pour l'Education (LINE), Université Nice Sophia Antipolis (1965 - 2019) (UNS), COMUE Université Côte d'Azur (2015-2019) (COMUE UCA)-COMUE Université Côte d'Azur (2015-2019) (COMUE UCA)-Université Côte d'Azur (UCA), COMUE Université Côte d'Azur (2015-2019) (COMUE UCA), Université Laval [Québec] (ULaval), Mnemonic Synergy (Mnemosyne), Laboratoire Bordelais de Recherche en Informatique (LaBRI), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Inria Bordeaux - Sud-Ouest, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut des Maladies Neurodégénératives [Bordeaux] (IMN), Université de Bordeaux (UB)-Centre National de la Recherche Scientifique (CNRS)-Centre National de la Recherche Scientifique (CNRS), International Society of the Learning Sciences, Concordia University, AEx AIDE, and ANR-18-CE38-0001,CreaMaker,#CreaMaker: évaluation de la co-créativité dans une activité de fabrication physico-numérique de type maker(2018)

Subjects
[INFO.INFO-SC]Computer Science [cs]/Symbolic Computation [cs.SC], Artificial intelligence, Problem solving, [SHS.EDU]Humanities and Social Sciences/Education, Educational robotics
Abstract

International audience; In computational neuroscience and bioinspired artificial intelligence (AI), different studies aim at understanding the mechanisms of perception such as shape recognition and sensori-motor coordination such as grasping or pinching. A step further, as in the Mnemosyne research program, cognitive mechanisms are analyzed to better understand brain circuits responsible for reasoning and problem-solving by a biological or algorithmic agent. The ANR CreaMaker and AIDE research programs seek to improve understanding of creative problem solving via behavioral analysis of the relationship between brain processes and problem-solving activities. The CPS behavior (intentions + CPS regulation) is analyzed using learning analytics created automatically as well as human analysis based on coding schemes. #CreaCube is a large dataset of creative problem-solving challenges (n>1300 experiments). Each video is coded in accordance with a behavioral learning analytics coding schema. #CreaComp is a computational learning sciences research program dedicated to the improvement of the study of creative problem solving.

Published
2023

33. Comment fonctionne ChatGPT ? Décrypter son nom pour comprendre les modèles de langage

Author

Alexandre, Frédéric, Mnemonic Synergy (Mnemosyne), Laboratoire Bordelais de Recherche en Informatique (LaBRI), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Inria Bordeaux - Sud-Ouest, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut des Maladies Neurodégénératives [Bordeaux] (IMN), and Université de Bordeaux (UB)-Centre National de la Recherche Scientifique (CNRS)-Centre National de la Recherche Scientifique (CNRS)

Subjects
[INFO]Computer Science [cs]
Abstract

International audience; On voit passer beaucoup d'avis sur des Intelligences Ar6ficielles comme ChatGPT, sur leur dangerosité, leur niveau d'intelligence voire leur humanité. Mais finalement, que sait-on de ChatGPT ? Que c'est un réseau de neurones ar6ficiels composé de milliards de paramètres ; Qu'il est capable de tenir une discussion de haut niveau ; mais aussi qu'il peut tomber dans des pièges grossiers tendus par des internautes facé6eux. Bref, on nous parle beaucoup de lui mais on en sait finalement très peu sur son fonc6onnement. Donc, avant d'en débaLre, je vous propose de présenter les mécanismes principaux sur lesquels ChatGPT repose, ce qui nous permeLra de comprendre que, si le résultat est parfois impressionnant, ses mécanismes élémentaires sont souvent astucieux mais pas vraiment nouveaux. Pour ce faire, passons en revue les différents termes du sigle ChatGPT.

Published
2023

34. Past Word Context Enables Better MEG Encoding Predictions than Current Word in Listening Stories

Author

Reddy Oota, Subba, Trouvain, Nathan, Alexandre, Frédéric, Hinaut, Xavier, Laboratoire Bordelais de Recherche en Informatique (LaBRI), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS), Mnemonic Synergy (Mnemosyne), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Inria Bordeaux - Sud-Ouest, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut des Maladies Neurodégénératives [Bordeaux] (IMN), Université de Bordeaux (UB)-Centre National de la Recherche Scientifique (CNRS)-Centre National de la Recherche Scientifique (CNRS), and PhD Inria CORDI-S NewSpeak

Subjects
MEG, [INFO.INFO-LG]Computer Science [cs]/Machine Learning [cs.LG], [STAT.ML]Statistics [stat]/Machine Learning [stat.ML], Transformers, Sentence processing, Brain encoding, [SDV.NEU]Life Sciences [q-bio]/Neurons and Cognition [q-bio.NC], [INFO.INFO-NE]Computer Science [cs]/Neural and Evolutionary Computing [cs.NE], Language model, [INFO.INFO-AI]Computer Science [cs]/Artificial Intelligence [cs.AI]
Abstract

International audience; Brain encoding is the process of mapping stimuli to brain activity. There is a vast literature on linguistic brain encoding for functional MRI (fMRI) related to syntactic and semantic representations. Magnetoencephalography (MEG), with higher temporal resolution than fMRI, enables us to look more precisely at the timing of linguistic feature processing. Unlike MEG decoding, few studies on MEG encoding using natural stimuli exist. Existing ones on story listening focus on phoneme and simple word-based features, ignoring more abstract features such as context, syntactic and semantic aspects. Inspired by previous fMRI studies, we study MEG brain encoding using basic syntactic and semantic features, with various context lengths and directions (past vs. future), for a dataset of 8 subjects listening to stories (Gwilliams et al. arXiv 2022). We find that BERT representations are significant but not other syntactic features or word embeddings (e.g. GloVe), allowing us to encode MEG in a distributed way across auditory and language regions in time. In particular, past context is crucial in obtaining significant results.This suggests that the "word encoding center of mass" is few words behind the current word, as if the brain would wait for more future context before encoding "fully" the word, or similarly that the current representation of the incoming word is encoded in a transient representation that is changing until the next words come in. This is coherent with previous studies that showed that the several past phonemes information (position-invariant code for content and order) are kept in memory (Gwilliams et al. 2022), and that current incoming word lexical information is retrieved in a context sensitive manner (rather then using the most probable lexical category of the word) (Gwilliams et al. 2023). HVC are of canaries, the brain area managing long-time dependencies in song production, preferentially encodes past actions rather than future actions: specific neuron populations preferencially encoding past actions were actually more active during the rare phrases that involve history-dependent transitions in song (Cohen et al. 2020). This is also coherent with the results of (Gwilliams et al. 2022) where phoneme representations are sustained longer when lexical identity is uncertain. Overall, it seems that the representations of past events or actions are kept in memory until they have been used to disambiguate future events/actions.

Published
2023

35. De Cambridge Analytica à ChatGPT, comprendre comment l’IA donne un sens aux mots

Author

Alexandre, Frédéric, Mnemonic Synergy (Mnemosyne), Laboratoire Bordelais de Recherche en Informatique (LaBRI), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Inria Bordeaux - Sud-Ouest, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut des Maladies Neurodégénératives [Bordeaux] (IMN), and Université de Bordeaux (UB)-Centre National de la Recherche Scientifique (CNRS)-Centre National de la Recherche Scientifique (CNRS)

Subjects
[INFO]Computer Science [cs]
Abstract

International audience; Un des problèmes majeurs que l’IA n’a toujours pas résolus aujourd’hui est celui de l’ancrage du symbole (symbol grounding problem), c’est-à-dire comment des symboles (des mots par exemple) peuvent être associés à leur signification. Par exemple, si je dis : « le chat dort sur son coussin car il est fatigué », la plupart des êtres humains comprendra sans effort que « il » renvoie à « chat » et pas à « coussin ». C’est ce qu’on appelle le raisonnement de bon sens. Par contre, ce raisonnement va être beaucoup plus difficile en IA et je vais expliquer pourquoi. Mais je vais aussi présenter la technique dite de plongement lexical qui, si elle ne résout pas tous les problèmes, est cependant d’une redoutable efficacité. Il est important de connaitre les principes de cette technique car c’est celle qui est utilisée dans la plupart des modèles d’IA récents, dont ChatGPT.

Published
2023

36. Contrôle Biomimétique de Prothèse par réseaux de neurones

Author

Barennes, Tristan, Hinaut, Xavier, Alexandre, Frédéric, Mnemonic Synergy (Mnemosyne), Laboratoire Bordelais de Recherche en Informatique (LaBRI), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Inria Bordeaux - Sud-Ouest, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut des Maladies Neurodégénératives [Bordeaux] (IMN), Université de Bordeaux (UB)-Centre National de la Recherche Scientifique (CNRS)-Centre National de la Recherche Scientifique (CNRS), and Alexandre, Frédéric

Subjects
controle application biomédicale prothèse modèle inverse, modèle inverse, controle, application biomédicale, prothèse, [INFO]Computer Science [cs], [INFO] Computer Science [cs]
Abstract

International audience; Ce papier rapporte une expérience d'application d'intelligence artificielle dans le domaine bio-médical. Cette expérience de contrôle d'effecteur est originale car, considérant les caractéristiques de l'application, les approches mathématiques classiques de contrôle ne sont pas applicables et il faut recourir à des techniques de neuro-contrôle où le contrôleur est appris à partir d'exemples. L'application bio-médicale correspond au contrôle de prothèses pour des personnes amputées du bras. La technique de neuro-contrôle correspond à apprendre successivement un modèle direct puis un modèle inverse avec une approche originale d'apprentissage joint. Les données sont acquises et préparées à partir d'une application de réalité virtuelle. Les phases d'entrainement et de test des réseaux montrent un émulateur (modèle direct) de qualité suffisante pour permettre au controleur (modèle inverse) de montrer une erreur inférieure à 0.1%. Ceci reste à valider chez des sujets équipés de prothèse.

Published
2022

38. Un MOOC pour initier a l'IA : « Intelligence Artificielle avec Intelligence »

Author

Alexandre, Frédéric, Comte, Marie-Hélène, Lagarrigue, Aurélie, Mercier, Chloé, Palaude, Axel, Romero, Margarida, Viéville, Thierry, Mnemonic Synergy (Mnemosyne), Laboratoire Bordelais de Recherche en Informatique (LaBRI), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Inria Bordeaux - Sud-Ouest, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut des Maladies Neurodégénératives [Bordeaux] (IMN), Université de Bordeaux (UB)-Centre National de la Recherche Scientifique (CNRS)-Centre National de la Recherche Scientifique (CNRS), Inria Learning Lab (ILL), Direction de la Culture et de l’Information Scientifiques (DCIS), Inria Siège, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Inria Siège, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria), Laboratoire d'Innovation et Numérique pour l'Education (LINE), Université Nice Sophia Antipolis (1965 - 2019) (UNS), COMUE Université Côte d'Azur (2015-2019) (COMUE UCA)-COMUE Université Côte d'Azur (2015-2019) (COMUE UCA)-Université Côte d'Azur (UCA), Direction du numérique pour l'éducationGTnum #Scol_IAAction exploratoire AIDE, Canopé, and AEx AIDE

Subjects
intelligence artificielle, médiation scientifique, [SHS.EDU]Humanities and Social Sciences/Education, enseignement de l'informatique, [INFO.INFO-AI]Computer Science [cs]/Artificial Intelligence [cs.AI]
Abstract

National audience; Pour appréhender l'IA au quotidien, il faut former les citoyens dès la fin du primaire et tout au long de la vie à la compréhension de ses fondamentaux. Le MOOC « Intelligence artificielle avec intelligence » (IAI) est une formation hybride et participative permettant à des citoyens de s'initier à l'IA de manière à la fois théorique et expérimentale, par l'essai de différentes technologies comme la reconnaissance d'images. La formation permet de mieux comprendre, pour mieux appréhender cette IA désormais présente au quotidien.

Published
2023

39. Enseigner et apprendre à l'ère de l'intelligence artificielle

Author

Romero, Margarida, Heiser, Laurent, Lepage, Alexandre, Gagnebien, Anne, Bonjour, Audrey, Lagarrigue, Aurelie, Palaude, Axel, Boulord, Caroline, Gagneur, Charles-Antoine, Mercier, Chloé, Caucheteux, Christelle, Guidoni-Stoltz, Dominique, Tressols, Florence, Henry, Julie, Alexandre, Frédéric, Céci, Jean-François, Camponovo, Jérémy, Fouché, Laurent, Métral, Jean-François, Hodgkins, Lianne-Blue, Comte, Marie-Hélène, Durampart, Michel, Corieri, Patricia, Olry, Paul, Reboul, Pauline, Bonfils, Philippe, Amor, Sami Ben, Collin, Simon, Ciavaldini-Cartaut, Solange, Viéville, Thierry, Batifol, Victoire, Borgne, Yann-Aël Le, Laboratoire d'Innovation et Numérique pour l'Education (LINE), Université Nice Sophia Antipolis (1965 - 2019) (UNS), COMUE Université Côte d'Azur (2015-2019) (COMUE UCA)-COMUE Université Côte d'Azur (2015-2019) (COMUE UCA)-Université Côte d'Azur (UCA), Université Laval [Québec] (ULaval), Université Côte d'Azur (UCA), Université de Montréal (UdeM), Université de Toulon (UTLN), Inria Learning Lab (ILL), Direction de la Culture et de l’Information Scientifiques (DCIS), Inria Siège, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Inria Siège, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria), Mnemonic Synergy (Mnemosyne), Laboratoire Bordelais de Recherche en Informatique (LaBRI), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Inria Bordeaux - Sud-Ouest, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut des Maladies Neurodégénératives [Bordeaux] (IMN), Université de Bordeaux (UB)-Centre National de la Recherche Scientifique (CNRS)-Centre National de la Recherche Scientifique (CNRS), La Scientothèque [Bruxelles], Formation et apprentissages professionnels (FoAP), Conservatoire National des Arts et Métiers [CNAM] (CNAM), HESAM Université - Communauté d'universités et d'établissements Hautes écoles Sorbonne Arts et métiers université (HESAM)-HESAM Université - Communauté d'universités et d'établissements Hautes écoles Sorbonne Arts et métiers université (HESAM)-École Nationale Supérieure de Techniques Avancées Bretagne (ENSTA Bretagne)-Institut Agro Dijon, Institut national d'enseignement supérieur pour l'agriculture, l'alimentation et l'environnement (Institut Agro)-Institut national d'enseignement supérieur pour l'agriculture, l'alimentation et l'environnement (Institut Agro), HESAM Université - Communauté d'universités et d'établissements Hautes écoles Sorbonne Arts et métiers université (HESAM), Auteur indépendant, Institut Agro Dijon, Institut national d'enseignement supérieur pour l'agriculture, l'alimentation et l'environnement (Institut Agro), Université de Namur [Namur] (UNamur), Université de Poitiers, Académie de Nice, Université du Québec à Montréal = University of Québec in Montréal (UQAM), Direction du numérique pour l'éducation, GTnum #Scol_IA, Action exploratoire AIDE, GTnum Scol_IA, ANR-18-CE38-0001,CreaMaker,#CreaMaker: évaluation de la co-créativité dans une activité de fabrication physico-numérique de type maker(2018), and European Project: CAI

Subjects
Artificial intelligence, usages créatifs, compétences du 21ème siècle, numérique, intelligence artificielle, [SHS.EDU]Humanities and Social Sciences/Education, agentivité, [INFO.INFO-HC]Computer Science [cs]/Human-Computer Interaction [cs.HC]
Abstract

International audience; As part of the Digital Working Group (GTnum) #Scol_IA “Renewal of digital practices and creative uses of digital and AI” we are pleased to present the white paper “Teaching and learning in the era of Artificial Intelligence, Acculturation , integration and creative uses of AI in education”. The white paper edited by Margarida Romero, Laurent Heiser and Alexandre Lepage aims to provide the various educational actors with a diversified perspective both on the issues of acculturation and training in AI and on the resources and feedback from the various research teams and organisations. of scientific culture in the French-speaking countries. A multidisciplinary approach makes it possible to consider the perspectives of researchers in computer science as well as those of education and training sciences, information and communication sciences and the expertise of teaching professionals. and scientific mediation.; Dans le cadre du Groupe de Travail numérique (GTnum) #Scol_IA “Renouvellement des pratiques numériques et usages créatifs du numérique et IA” nous sommes heureux de vous présenter le livre blanc “Enseigner et apprendre à l’ère de l’Intelligence Artificielle, Acculturation, intégration et usages créatifs de l’IA en éducation”. Le livre blanc édité par Margarida Romero, Laurent Heiser et Alexandre Lepage vise apporter aux différents acteurs éducatifs un éclairage diversifié tant des enjeux de l’acculturation et formation à l’IA que des ressources et retours d’expérience des différentes équipes de recherche et organismes de culture scientifique de la francophonie. Une approche pluridisciplinaire permet de considérer tant les perspectives des chercheurs en sciences de l’informatique, que celles des sciences de l’éducation et de la formation, les sciences de l’information et la communication et l’expertise des professionnels de l’enseignement et de la médiation scientifique.

Published
2023

40. L'IA pour mieux apprendre et apprehender L'IA

Author

Alexandre, Frédéric, Comte, Marie-Hélène, Lagarrigue, Aurélie, Viéville, Thierry, Mnemonic Synergy (Mnemosyne), Laboratoire Bordelais de Recherche en Informatique (LaBRI), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Inria Bordeaux - Sud-Ouest, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut des Maladies Neurodégénératives [Bordeaux] (IMN), Université de Bordeaux (UB)-Centre National de la Recherche Scientifique (CNRS)-Centre National de la Recherche Scientifique (CNRS), Inria Learning Lab (ILL), Direction de la Culture et de l’Information Scientifiques (DCIS), Inria Siège, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Inria Siège, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria), Laboratoire d'Innovation et Numérique pour l'Education (LINE), Université Nice Sophia Antipolis (1965 - 2019) (UNS), COMUE Université Côte d'Azur (2015-2019) (COMUE UCA)-COMUE Université Côte d'Azur (2015-2019) (COMUE UCA)-Université Côte d'Azur (UCA), Direction du numérique pour l'éducationGTnum #Scol_IAAction exploratoire AIDE, AEx AIDE, GTnum Scol_IA, and ANR-18-CE38-0001,CreaMaker,#CreaMaker: évaluation de la co-créativité dans une activité de fabrication physico-numérique de type maker(2018)

Subjects
[SHS.EDU]Humanities and Social Sciences/Education, Éducation, Intelligence artificielle, [INFO.INFO-AI]Computer Science [cs]/Artificial Intelligence [cs.AI]
Abstract

National audience; L'IA en éducation peut être abordée depuis trois perspectives parallèles. D'abord, elle peut servir à adapter l'expérience d'apprentissage par la conception d'outils prenant en compte différentes caractéristiques des apprenants ou des traces numériques issues de leur interaction avec des systèmes. Bien utilisés, de tels systèmes pourraient décharger les enseignants de tâches relatives à la transmission des contenus et leur permettre d'intervenir sur des aspects plus complexes de l'apprentissage des élèves. Ensuite, l'IA peut être utilisée comme outil scientifique pour mieux comprendre les phénomènes d'apprentissage humain, par la modélisation de l'apprenant. Finalement, l'IA peut être envisagée depuis la perspective de l'éducation critique à l'IA. Ce chapitre présente succinctement ces trois perspectives qui ne s'excluent pas les unes des autres, mais qui se complètent pour mieux cerner les enjeux de l'IA. Les dernières recherches associant les sciences de l'éducation et les sciences du numérique permettent de comprendre les liens entre l'intelligence artificielle (IA) et l'éducation, y compris leurs limites. Ces recherches nous montrent comment l'IA peut être pensée pour mieux apprendre et développer son esprit critique (Roux et al. 2020 ; Viéville, 2018), pour comprendre l'apprentissage humain lui-même, et enfin comme objet d'enseignement, pour maîtriser de manière éclairée ces outils devenus quotidiens (Viéville et Guitton, 2020).

Published
2023

41. From cultural-historical activity theory (CHAT) to computational learning sciences: modeling creative problem solving for supporting learners' competencies in the AI era

Author

Romero, Margarida, Isaac, Guillaume, Duret, Caroline, Mercier, Chloé, Barma, Sylvie, Kohler, Louis, Lake, Vivien, Kalmpourtzis, George, Saint-Clair Lefèvre, Chengcheng Li, Kemi Oyesola, Heiser, Laurent, Palaude, Axel, Strutynska, Oksana, Matusevych, Tetiana, Ibrahim, Lila, Fick, Fabiola, Trad, Donia, Septiani, Dea, Prokofieva, Victoria, Gil-Gallen, Sara, Montero, Ana Isabel, Cavalier, Noah, Leroy, Anaïs, Caraman, Nichita, Giraudon, Gerard, Viéville, Thierry, and Alexandre, Frédéric

Published
2023
Full Text
View/download PDF

43. Délibérer avec l'intelligence artificielle au service de l'intelligence naturelle

Author

Alexandre, Frédéric, Viéville, Thierry, Comte, Marie-Hélène, Mnemonic Synergy (Mnemosyne), Laboratoire Bordelais de Recherche en Informatique (LaBRI), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Inria Bordeaux - Sud-Ouest, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut des Maladies Neurodégénératives [Bordeaux] (IMN), Université de Bordeaux (UB)-Centre National de la Recherche Scientifique (CNRS)-Centre National de la Recherche Scientifique (CNRS), Laboratoire d'Innovation et Numérique pour l'Education (LINE), Université Nice Sophia Antipolis (1965 - 2019) (UNS), COMUE Université Côte d'Azur (2015-2019) (COMUE UCA)-COMUE Université Côte d'Azur (2015-2019) (COMUE UCA)-Université Côte d'Azur (UCA), Inria Learning Lab (ILL), Direction de la Culture et de l’Information Scientifiques (DCIS), Inria Siège, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Inria Siège, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria), AEx AIDE, and Philippe Pédrot, Alain Papaux

Subjects
intelligence artificielle, [SHS.DROIT]Humanities and Social Sciences/Law, neuroscience cognitive, [SHS.EDU]Humanities and Social Sciences/Education, [SCCO.NEUR]Cognitive science/Neuroscience, [INFO.INFO-AI]Computer Science [cs]/Artificial Intelligence [cs.AI]
Abstract

National audience; La numérisation de la société et le traitement automatique de l’information, y compris avec des techniques dites d’intelligence artificielle, induisent des ruptures dans notre façon de penser, calculer et délibérer. Mais comment fonctionnent ces fonctions cognitives et comment peuvent-elles être affectées par cette révolution numérique ? Pour comprendre en profondeur cela, nous allons d’abord prendre le temps d’expliquer ce que nous comprenons aujourd’hui de notre intelligence biologique qui pense, ce qui offrira un éclairage crucial sur ce qui se passe quand on utilise des machines qui calculent, avant de conclure en quoi cela aide à réfléchir sur comment délibérer. Car oser comprendre les aspects scientifiques et techniques de la pensée et du calcul est essentiel pour se donner les moyens de délibérer en toute conscience avec les outils intellectuels et numériques qui nous sont donnés.

Published
2022

45. Comparison Between Two Spatio-Temporal Organization Maps for Speech Recognition

Author

Salem, Zouhour Neji Ben, Bougrain, Laurent, Alexandre, Frédéric, Hutchison, David, editor, Kanade, Takeo, editor, Kittler, Josef, editor, Kleinberg, Jon M., editor, Mattern, Friedemann, editor, Mitchell, John C., editor, Naor, Moni, editor, Nierstrasz, Oscar, editor, Pandu Rangan, C., editor, Steffen, Bernhard, editor, Sudan, Madhu, editor, Terzopoulos, Demetri, editor, Tygar, Dough, editor, Vardi, Moshe Y., editor, Weikum, Gerhard, editor, Carbonell, Jaime G., editor, Siekmann, Jörg, editor, Schwenker, Friedhelm, editor, and Marinai, Simone, editor

Published
2006
Full Text
View/download PDF

46. Investigating Long-Term Context of Language Models on Brain Activity during Narrative Listening in fMRI

Author

Reddy Oota, Subba, Alexandre, Frédéric, Hinaut, Xavier, Mnemonic Synergy (Mnemosyne), Laboratoire Bordelais de Recherche en Informatique (LaBRI), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Inria Bordeaux - Sud-Ouest, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut des Maladies Neurodégénératives [Bordeaux] (IMN), Université de Bordeaux (UB)-Centre National de la Recherche Scientifique (CNRS)-Centre National de la Recherche Scientifique (CNRS), Inria CORDI-S PhD grant, ANR-21-CE23-0009,DeepPool,Réservoirs Profonds pour le Traitement et la Production du Langage(2021), Hinaut, Xavier, and Réservoirs Profonds pour le Traitement et la Production du Langage - - DeepPool2021 - ANR-21-CE23-0009 - AAPG2021 - VALID

Subjects
[INFO.INFO-AI] Computer Science [cs]/Artificial Intelligence [cs.AI], [STAT.ML]Statistics [stat]/Machine Learning [stat.ML], [INFO.INFO-LG]Computer Science [cs]/Machine Learning [cs.LG], [INFO.INFO-NE] Computer Science [cs]/Neural and Evolutionary Computing [cs.NE], [SDV.NEU]Life Sciences [q-bio]/Neurons and Cognition [q-bio.NC], [SDV.NEU] Life Sciences [q-bio]/Neurons and Cognition [q-bio.NC], [INFO.INFO-LG] Computer Science [cs]/Machine Learning [cs.LG], [SCCO.LING] Cognitive science/Linguistics, [INFO.INFO-NE]Computer Science [cs]/Neural and Evolutionary Computing [cs.NE], [SCCO.LING]Cognitive science/Linguistics, [STAT.ML] Statistics [stat]/Machine Learning [stat.ML], [INFO.INFO-AI]Computer Science [cs]/Artificial Intelligence [cs.AI]
Abstract

International audience; An interesting way to evaluate the representations obtained with machine learning language models is to compared them with human brain recordings. Encoding models have been used to partially predict fMRI recordings of different areas given the features of language models (such as Transformers). However, these models still lack long-term cognitive plausibility as well as insights on the underlying neural substrate mechanisms: e.g. how their representations differ across model layer depth and longer contexts. We study the influence of context representations of different language models such as sequence-based models: Long short-term memory networks (LSTMs), ELMo, and a popular pretrained Transformer language model (Longformer). In particular, we study how the internal hidden representations of such models are aligned with the fMRI brain activity. We use fMRI recordings of subjects listening to narrative stories to interpret word and sequence embedding representations. We further investigate how the representations of language model layers reveal better semantic context during listening. One of the novelties is that we look at several hidden states of LSTMs: cell and output gate states. Our computational experiments provide the following cognitive insights: (i) LSTM cell states are better aligned with brain recordings than LSTM output gate states: the cell state activity can represent more long- term information; (ii) the representations of ELMo and Longformer display a good predictive performance across brain regions for listening stimuli; (iii) Posterior Medial Cortex (PMC), Temporo-Parieto-Occipital junction (TPOJ) and Dorsal Frontal Lobe (DFL) have higher correlation versus Early Auditory (EAC) and Auditory Association Cortex (AAC).

Published
2022

47. Modélisation des interactions préfrontal-hippocampique pour l'apprentissage contextuel controllé à l'aide de réseaux de neurones artificiels

Author

Chateau-Laurent, Hugo, Alexandre, Frédéric, Institut des Maladies Neurodégénératives [Bordeaux] (IMN), Université de Bordeaux (UB)-Centre National de la Recherche Scientifique (CNRS), Laboratoire Bordelais de Recherche en Informatique (LaBRI), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS), Mnemonic Synergy (Mnemosyne), Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Université de Bordeaux (UB)-École Nationale Supérieure d'Électronique, Informatique et Radiocommunications de Bordeaux (ENSEIRB)-Centre National de la Recherche Scientifique (CNRS)-Inria Bordeaux - Sud-Ouest, Institut National de Recherche en Informatique et en Automatique (Inria)-Institut National de Recherche en Informatique et en Automatique (Inria)-Institut des Maladies Neurodégénératives [Bordeaux] (IMN), and Université de Bordeaux (UB)-Centre National de la Recherche Scientifique (CNRS)-Centre National de la Recherche Scientifique (CNRS)

Subjects
Modeling, [SDV.NEU]Life Sciences [q-bio]/Neurons and Cognition [q-bio.NC], Prefrontal cortex, Hippocampus, Reinforcement Learning, Cognitive Control, [INFO.INFO-AI]Computer Science [cs]/Artificial Intelligence [cs.AI]
Abstract

International audience

Published
2022

48. Towards Word Semantics from Multi-modal Acoustico-Motor Integration: Application of the Bijama Model to the Setting of Action-Dependant Phonetic Representations

Author

Ménard, Olivier, Alexandre, Frédéric, Frezza-Buet, Hervé, Hutchison, David, editor, Kanade, Takeo, editor, Kittler, Josef, editor, Kleinberg, Jon M., editor, Mattern, Friedemann, editor, Mitchell, John C., editor, Naor, Moni, editor, Nierstrasz, Oscar, editor, Pandu Rangan, C., editor, Steffen, Bernhard, editor, Sudan, Madhu, editor, Terzopoulos, Demetri, editor, Tygar, Dough, editor, Vardi, Moshe Y., editor, Weikum, Gerhard, editor, Carbonell, Jaime G., editor, Siekmann, Jörg, editor, Wermter, Stefan, editor, Palm, Günther, editor, and Elshaw, Mark, editor

Published
2005
Full Text
View/download PDF

49. A Distributed Model of Spatial Visual Attention

Author

Vitay, Julien, Rougier, Nicolas P., Alexandre, Frédéric, Hutchison, David, editor, Kanade, Takeo, editor, Kittler, Josef, editor, Kleinberg, Jon M., editor, Mattern, Friedemann, editor, Mitchell, John C., editor, Naor, Moni, editor, Nierstrasz, Oscar, editor, Pandu Rangan, C., editor, Steffen, Bernhard, editor, Sudan, Madhu, editor, Terzopoulos, Demetri, editor, Tygar, Dough, editor, Vardi, Moshe Y., editor, Weikum, Gerhard, editor, Carbonell, Jaime G., editor, Siekmann, Jörg, editor, Wermter, Stefan, editor, Palm, Günther, editor, and Elshaw, Mark, editor

Published
2005
Full Text
View/download PDF

50. Neural Network Topology Optimization

Author

Attik, Mohammed, Bougrain, Laurent, Alexandre, Frédéric, Hutchison, David, editor, Kanade, Takeo, editor, Kittler, Josef, editor, Kleinberg, Jon M., editor, Mattern, Friedemann, editor, Mitchell, John C., editor, Naor, Moni, editor, Nierstrasz, Oscar, editor, Pandu Rangan, C., editor, Steffen, Bernhard, editor, Sudan, Madhu, editor, Terzopoulos, Demetri, editor, Tygar, Dough, editor, Vardi, Moshe Y., editor, Weikum, Gerhard, editor, Duch, Włodzisław, editor, Kacprzyk, Janusz, editor, Oja, Erkki, editor, and Zadrożny, Sławomir, editor

Published
2005
Full Text
View/download PDF

Catalog

Books, media, physical & digital resources
See catalog results